Java virtualioji mašina: išsamus šiukšlių surinkimo derinimas

Java galia slypi jos platformos nepriklausomybėje, pasiekiamoje per Java virtualiąją mašiną (JVM). Kritinis JVM aspektas yra automatinis atminties valdymas, kurį daugiausia atlieka šiukšlių surinkėjas (GC). GC supratimas ir derinimas yra labai svarbus optimaliam programos veikimui, ypač globalioms programoms, apdorojančioms įvairius darbo krūvius ir didelius duomenų rinkinius. Šiame vadove pateikiama išsami GC derinimo apžvalga, apimanti skirtingus šiukšlių surinkėjus, derinimo parametrus ir praktinius pavyzdžius, kurie padės optimizuoti jūsų Java programas.

Šiukšlių surinkimo supratimas Java

Šiukšlių surinkimas – tai procesas, kurio metu automatiškai atlaisvinama atmintis, užimta objektais, kurių programa nebenaudoja. Tai apsaugo nuo atminties nutekėjimo ir supaprastina kūrimą, atlaisvindama kūrėjus nuo rankinio atminties valdymo, o tai yra didelis privalumas, palyginti su tokiomis kalbomis kaip C ir C++. JVM GC identifikuoja ir pašalina šiuos nenaudojamus objektus, atlaisvindama atmintį būsimam objektų kūrimui. Šiukšlių surinkėjo pasirinkimas ir jo derinimo parametrai labai paveikia programos našumą, įskaitant:

• Programos pauzės: GC pauzės, taip pat žinomos kaip „sustabdyti pasaulį“ įvykiai, kai programos gijos yra sustabdytos, kol veikia GC. Dažnos arba ilgos pauzės gali žymiai paveikti vartotojo patirtį.
• Pralaidumas: Greitis, kuriuo programa gali apdoroti užduotis. GC gali sunaudoti dalį procesoriaus resursų, kurie galėtų būti naudojami faktiniam programos darbui, taip paveikdami pralaidumą.
• Atminties panaudojimas: Kaip efektyviai programa naudoja turimą atmintį. Blogai sukonfigūruotas GC gali sukelti per didelį atminties naudojimą ir net atminties trūkumo klaidas.
• Vėlavimas: Laikas, per kurį programa reaguoja į užklausą. GC pauzės tiesiogiai prisideda prie vėlavimo.

Skirtingi šiukšlių surinkėjai JVM

JVM siūlo įvairius šiukšlių surinkėjus, kiekvienas iš jų turi savo privalumų ir trūkumų. Šiukšlių surinkėjo pasirinkimas priklauso nuo programos reikalavimų ir darbo krūvio charakteristikų. Panagrinėkime keletą žymesnių:

1. Nuoseklusis šiukšlių surinkėjas (Serial Garbage Collector)

Serial GC yra vienagijis surinkėjas, pirmiausia tinkamas programoms, veikiančioms vieno branduolio mašinose arba toms, kurios turi labai mažas krūvas. Tai paprasčiausias surinkėjas, atliekantis pilnus GC ciklus. Pagrindinis jo trūkumas yra ilgos „sustabdyti pasaulį“ pauzės, todėl jis netinkamas gamybos aplinkoms, kurioms reikalingas mažas vėlavimas.

2. Lygiagretusis šiukšlių surinkėjas (Parallel Garbage Collector) (Pralaidumo surinkėjas)

Parallel GC, taip pat žinomas kaip pralaidumo surinkėjas, siekia maksimaliai padidinti programos pralaidumą. Jis naudoja kelias gijas, kad atliktų smulkius ir pagrindinius šiukšlių surinkimus, sutrumpindamas individualių GC ciklų trukmę. Tai geras pasirinkimas programoms, kurioms pralaidumo maksimalizavimas yra svarbesnis nei mažas vėlavimas, pavyzdžiui, partiniam apdorojimui.

3. CMS (Concurrent Mark Sweep) šiukšlių surinkėjas (nebenaudojamas)

CMS buvo sukurtas siekiant sumažinti pauzės laikus, atliekant didžiąją dalį šiukšlių surinkimo lygiagrečiai su programos gijomis. Jis naudojo lygiagretų žymėjimo ir šlavimo metodą. Nors CMS užtikrino mažesnes pauzes nei Parallel GC, jis galėjo kentėti nuo fragmentacijos ir turėjo didesnę procesoriaus apkrovą. CMS yra nebenaudojamas nuo Java 9 ir nerekomenduojamas naujoms programoms. Jį pakeitė G1GC.

4. G1GC (Garbage-First Garbage Collector)

G1GC yra numatytasis šiukšlių surinkėjas nuo Java 9 ir yra skirtas tiek didelėms krūvos dydžiams, tiek trumpiems pauzės laikams. Jis padalija krūvą į regionus ir teikia pirmenybę regionų, kuriuose yra daugiausiai šiukšlių, surinkimui, todėl ir pavadinimas „Garbage-First“. G1GC užtikrina gerą pralaidumo ir vėlavimo pusiausvyrą, todėl yra universalus pasirinkimas plačiam programų spektrui. Jis siekia išlaikyti pauzės laikus žemiau nurodyto tikslo (pvz., 200 milisekundžių).

5. ZGC (Z Garbage Collector)

ZGC yra mažo vėlavimo šiukšlių surinkėjas, pristatytas Java 11 (eksperimentinis Java 11, paruoštas gamybai nuo Java 15). Jo tikslas yra sumažinti GC pauzės laikus iki 10 milisekundžių, nepriklausomai nuo krūvos dydžio. ZGC veikia lygiagrečiai, o programa veikia beveik nepertraukiamai. Jis tinka programoms, kurioms reikalingas ypač mažas vėlavimas, pavyzdžiui, didelio dažnio prekybos sistemoms ar internetinių žaidimų platformoms. ZGC naudoja spalvotus rodykles objektų nuorodoms sekti.

6. Shenandoah šiukšlių surinkėjas

Shenandoah yra mažo pauzės laiko šiukšlių surinkėjas, sukurtas Red Hat, ir yra potenciali ZGC alternatyva. Jis taip pat siekia labai trumpų pauzės laikų, atlikdamas lygiagretų šiukšlių surinkimą. Pagrindinis Shenandoah skirtumas yra tas, kad jis gali lygiagrečiai sutankinti krūvą, o tai gali padėti sumažinti fragmentaciją. Shenandoah yra paruoštas gamybai OpenJDK ir Red Hat Java distribucijose. Jis žinomas dėl savo trumpų pauzės laikų ir pralaidumo charakteristikų. Shenandoah yra visiškai lygiagretus programai, o tai turi pranašumą, nes bet kuriuo metu nestabdomas programos vykdymas. Darbas atliekamas per papildomą giją.

Pagrindiniai GC derinimo parametrai

Šiukšlių surinkimo derinimas apima įvairių parametrų reguliavimą, siekiant optimizuoti našumą. Štai keletas svarbiausių parametrų, kuriuos reikia apsvarstyti, suskirstyti aiškumo dėlei:

1. Krūvos dydžio konfigūracija

• -Xms<size> (Minimalus krūvos dydis): Nustato pradinį krūvos dydį. Paprastai rekomenduojama nustatyti tą pačią vertę kaip ir -Xmx, kad JVM neperskirstytų krūvos vykdymo metu.
• -Xmx<size> (Maksimalus krūvos dydis): Nustato maksimalų krūvos dydį. Tai yra svarbiausias konfigūravimo parametras. Teisingos vertės radimas apima eksperimentavimą ir stebėjimą. Didesnė krūva gali pagerinti pralaidumą, bet gali padidinti pauzės laikus, jei GC turės dirbti sunkiau.
• -Xmn<size> (Jaunosios kartos dydis): Nurodo jaunosios kartos dydį. Jaunoji karta yra vieta, kur iš pradžių paskirstomi nauji objektai. Didesnė jaunoji karta gali sumažinti smulkių GC dažnumą. G1GC atveju, jaunosios kartos dydis valdomas automatiškai, bet gali būti reguliuojamas naudojant parametrus -XX:G1NewSizePercent ir -XX:G1MaxNewSizePercent.

2. Šiukšlių surinkėjo pasirinkimas

• -XX:+UseSerialGC: Įgalina Serial GC.
• -XX:+UseParallelGC: Įgalina Parallel GC (pralaidumo surinkėją).
• -XX:+UseG1GC: Įgalina G1GC. Tai yra numatytasis nustatymas nuo Java 9 ir naujesnių versijų.
• -XX:+UseZGC: Įgalina ZGC.
• -XX:+UseShenandoahGC: Įgalina Shenandoah GC.

3. G1GC specifiniai parametrai

• -XX:MaxGCPauseMillis=<ms>: Nustato tikslinį maksimalų pauzės laiką milisekundėmis G1GC. GC bandys pasiekti šį tikslą, tačiau tai nėra garantija.
• -XX:G1HeapRegionSize=<size>: Nustato regionų dydį krūvoje G1GC. Padidinus regiono dydį, potencialiai galima sumažinti GC pridėtines išlaidas.
• -XX:G1NewSizePercent=<percent>: Nustato minimalų krūvos procentą, naudojamą jaunajai kartai G1GC.
• -XX:G1MaxNewSizePercent=<percent>: Nustato maksimalų krūvos procentą, naudojamą jaunajai kartai G1GC.
• -XX:G1ReservePercent=<percent>: Atminties kiekis, rezervuotas naujų objektų paskirstymui. Numatoma vertė yra 10%.
• -XX:G1MixedGCCountTarget=<count>: Nurodo tikslinį mišrių šiukšlių surinkimų skaičių cikle.

4. ZGC specifiniai parametrai

• -XX:ZUncommitDelay=<seconds>: Laikas sekundėmis, kurį ZGC lauks prieš atšaukdamas atmintį operacinei sistemai.
• -XX:ZAllocationSpikeFactor=<factor>: Paskirstymo spartos smaigalio faktorius. Didesnė vertė reiškia, kad GC leidžiama agresyviau rinkti šiukšles ir gali sunaudoti daugiau CPU ciklų.

5. Kiti svarbūs parametrai

• -XX:+PrintGCDetails: Įgalina išsamų GC registravimą, teikiant vertingą informaciją apie GC ciklus, pauzės laikus ir atminties naudojimą. Tai labai svarbu analizuojant GC elgesį.
• -XX:+PrintGCTimeStamps: Įtraukia laiko žymas į GC žurnalo išvestį.
• -XX:+UseStringDeduplication (Java 8u20 ir naujesnės, G1GC): Sumažina atminties naudojimą, pašalinant identiškas eilutes krūvoje.
• -XX:+ExplicitGCInvokesConcurrentAndUnloadsClasses: Įjungia arba išjungia aiškių GC iškvietimų naudojimą dabartiniame JDK. Tai naudinga siekiant išvengti našumo pablogėjimo gamybos aplinkoje.
• -XX:+HeapDumpOnOutOfMemoryError: Generuoja krūvos iškrovą, kai įvyksta OutOfMemoryError, leidžianti išsamiai analizuoti atminties naudojimą ir nustatyti atminties nutekėjimus.
• -XX:HeapDumpPath=<path>: Nurodo vietą, kurioje turėtų būti parašytas krūvos iškrovos failas.

Praktiniai GC derinimo pavyzdžiai

Pažvelkime į keletą praktinių pavyzdžių skirtingiems scenarijams. Atminkite, kad tai yra pradiniai taškai, reikalaujantys eksperimentavimo ir stebėjimo, atsižvelgiant į jūsų konkrečios programos charakteristikas. Svarbu stebėti programas, kad būtų tinkama bazinė linija. Be to, rezultatai gali skirtis priklausomai nuo aparatinės įrangos.

1. Partinio apdorojimo programa (orientuota į pralaidumą)

Partinio apdorojimo programoms pagrindinis tikslas dažnai yra maksimalizuoti pralaidumą. Mažas vėlavimas nėra toks kritinis. Parallel GC dažnai yra geras pasirinkimas.

            java -Xms4g -Xmx4g -XX:+UseParallelGC -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -jar mybatchapp.jar
            

              
                Copy
              
            
          

Šiame pavyzdyje mes nustatome minimalų ir maksimalų krūvos dydį iki 4GB, įgalindami Parallel GC ir išsamų GC registravimą.

2. Žiniatinklio programa (jautri vėlavimui)

Žiniatinklio programoms mažas vėlavimas yra labai svarbus gerai vartotojo patirčiai. Dažnai teikiamas pirmenybė G1GC arba ZGC (arba Shenandoah).

Naudojant G1GC:

            java -Xms8g -Xmx8g -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -jar mywebapp.jar
            

              
                Copy
              
            
          

Ši konfigūracija nustato minimalų ir maksimalų krūvos dydį iki 8GB, įgalina G1GC ir nustato tikslinį maksimalų pauzės laiką iki 200 milisekundžių. Koreguokite MaxGCPauseMillis vertę pagal savo našumo reikalavimus.

Naudojant ZGC (reikalinga Java 11+):

            java -Xms8g -Xmx8g -XX:+UseZGC -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -jar mywebapp.jar
            

              
                Copy
              
            
          

Šis pavyzdys įgalina ZGC su panašia krūvos konfigūracija. Kadangi ZGC sukurtas labai mažam vėlavimui, paprastai nereikia konfigūruoti pauzės laiko tikslo. Galite pridėti parametrų konkretiems scenarijams; pavyzdžiui, jei turite paskirstymo spartos problemų, galite išbandyti -XX:ZAllocationSpikeFactor=2

3. Didelio dažnio prekybos sistema (ypač mažas vėlavimas)

Didelio dažnio prekybos sistemoms ypač mažas vėlavimas yra svarbiausias. ZGC yra idealus pasirinkimas, jei programa su juo suderinama. Jei naudojate Java 8 arba turite suderinamumo problemų, apsvarstykite Shenandoah.

            java -Xms16g -Xmx16g -XX:+UseZGC -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -jar mytradingapp.jar
            

              
                Copy
              
            
          

Panašiai kaip žiniatinklio programos pavyzdyje, mes nustatome krūvos dydį ir įgaliname ZGC. Apsvarstykite tolesnį ZGC specifinių parametrų derinimą, atsižvelgdami į darbo krūvį.

4. Programos su dideliais duomenų rinkiniais

Programoms, kurios dirba su labai dideliais duomenų rinkiniais, reikia kruopščiai apgalvoti. Gali prireikti didesnio krūvos dydžio, o stebėjimas tampa dar svarbesnis. Duomenys taip pat gali būti talpinami jaunojoje kartoje, jei duomenų rinkinys yra mažas ir dydis yra artimas jaunajai kartai.

Atsižvelkite į šiuos punktus:

• Objektų paskirstymo sparta: Jei jūsų programa sukuria daug trumpalaikių objektų, jaunoji karta gali būti pakankama.
• Objektų gyvavimo trukmė: Jei objektai linkę gyvuoti ilgiau, turėsite stebėti skatinimo iš jaunosios kartos į senąją kartą spartą.
• Atminties pėdsakas: Jei programa yra apribota atminties ir susiduriate su OutOfMemoryError išimtimis, objekto dydžio sumažinimas arba jų trumpalaikiškumas galėtų išspręsti problemą.

Dideliam duomenų rinkiniui svarbus jaunosios kartos ir senosios kartos santykis. Apsvarstykite šį pavyzdį, kad pasiektumėte trumpus pauzės laikus:

            java -Xms32g -Xmx32g -XX:+UseG1GC -XX:MaxGCPauseMillis=100 -XX:G1NewSizePercent=20 -XX:G1MaxNewSizePercent=30 -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -jar mydatasetapp.jar
            

              
                Copy
              
            
          

Šis pavyzdys nustato didesnę krūvą (32GB) ir tiksliai sureguliuoja G1GC su mažesniu tiksliniu pauzės laiku ir pakoreguotu jaunosios kartos dydžiu. Atitinkamai koreguokite parametrus.

Stebėjimas ir analizė

GC derinimas nėra vienkartinis darbas; tai yra iteracinis procesas, reikalaujantis kruopštaus stebėjimo ir analizės. Štai kaip atlikti stebėjimą:

1. GC registravimas

Įgalinkite išsamų GC registravimą naudodami parametrus, tokius kaip -XX:+PrintGCDetails, -XX:+PrintGCTimeStamps ir -Xloggc:<filename>. Analizuokite žurnalo failus, kad suprastumėte GC elgesį, įskaitant pauzės laikus, GC ciklų dažnumą ir atminties naudojimo modelius. Apsvarstykite galimybę naudoti įrankius, tokius kaip GCViewer arba GCeasy, norėdami vizualizuoti ir analizuoti GC žurnalus.

2. Programos našumo stebėjimo (APM) įrankiai

Naudokite APM įrankius (pvz., Datadog, New Relic, AppDynamics), kad stebėtumėte programos našumą, įskaitant procesoriaus naudojimą, atminties naudojimą, atsako laikus ir klaidų dažnį. Šie įrankiai gali padėti nustatyti su GC susijusias kliūtis ir suteikti įžvalgų apie programos elgesį. Rinkoje esantys įrankiai, tokie kaip Prometheus ir Grafana, taip pat gali būti naudojami realaus laiko našumo įžvalgoms gauti.

3. Krūvos iškrovos

Atlikite krūvos iškrovas (naudodami -XX:+HeapDumpOnOutOfMemoryError ir -XX:HeapDumpPath=<path>), kai įvyksta OutOfMemoryErrors. Analizuokite krūvos iškrovas naudodami įrankius, tokius kaip Eclipse MAT (Memory Analyzer Tool), kad nustatytumėte atminties nutekėjimus ir suprastumėte objektų paskirstymo modelius. Krūvos iškrovos suteikia programos atminties naudojimo momentinę nuotrauką tam tikru laiko momentu.

4. Profiliavimas

Naudokite Java profiliavimo įrankius (pvz., JProfiler, YourKit), kad nustatytumėte našumo kliūtis savo kode. Šie įrankiai gali suteikti įžvalgų apie objektų kūrimą, metodų iškvietimus ir procesoriaus naudojimą, o tai gali netiesiogiai padėti jums derinti GC optimizuojant programos kodą.

Geriausios GC derinimo praktikos

• Pradėkite nuo numatytųjų nustatymų: JVM numatytieji nustatymai dažnai yra gera išeities taškas. Neperderinkite per anksti.
• Supraskite savo programą: Žinokite savo programos darbo krūvį, objektų paskirstymo modelius ir atminties naudojimo charakteristikas.
• Testuokite į gamybai artimoje aplinkoje: Testuokite GC konfigūracijas aplinkose, kurios glaudžiai primena jūsų gamybos aplinką, kad tiksliai įvertintumėte našumo poveikį.
• Nuolat stebėkite: Nuolat stebėkite GC elgesį ir programos našumą. Koreguokite derinimo parametrus pagal pastebėtus rezultatus.
• Izoliuokite kintamuosius: Derindami keiskite tik vieną parametrą vienu metu, kad suprastumėte kiekvieno pakeitimo poveikį.
• Venkite ankstyvos optimizacijos: Neoptimizuokite tariamos problemos be tvirtų duomenų ir analizės.
• Apsvarstykite kodo optimizavimą: Optimizuokite savo kodą, kad sumažintumėte objektų kūrimą ir šiukšlių surinkimo pridėtines išlaidas. Pavyzdžiui, naudokite objektus pakartotinai, kai tik įmanoma.
• Būkite atnaujinti: Sekite naujausius GC technologijos ir JVM atnaujinimų pasiekimus. Naujos JVM versijos dažnai apima šiukšlių surinkimo patobulinimus.
• Dokumentuokite derinimą: Dokumentuokite GC konfigūraciją, savo pasirinkimo motyvus ir našumo rezultatus. Tai padeda ateityje atlikti priežiūrą ir trikčių šalinimą.

Išvada

Šiukšlių surinkimo derinimas yra kritinis Java programos našumo optimizavimo aspektas. Suprasdami skirtingus šiukšlių surinkėjus, derinimo parametrus ir stebėjimo metodus, galite efektyviai optimizuoti savo programas, kad atitiktumėte konkrečius našumo reikalavimus. Atminkite, kad GC derinimas yra iteracinis procesas ir reikalauja nuolatinio stebėjimo bei analizės, kad būtų pasiekti optimalūs rezultatai. Pradėkite nuo numatytųjų nustatymų, supraskite savo programą ir eksperimentuokite su skirtingomis konfigūracijomis, kad rastumėte geriausią variantą savo poreikiams. Su tinkama konfigūracija ir stebėjimu galite užtikrinti, kad jūsų Java programos veiktų efektyviai ir patikimai, nepaisant jūsų globalaus pasiekiamumo.